Heise 08.10.2026
15:00 Uhr

heise+ | Kurz erklärt: Wie N-Gramme funktionieren


N-Gramm-Parameter fassen häufig gemeinsam generierte Token in Hashtabellen zusammen und ersetzen so aufwendige Berechnungen durch sparsamere Look-ups.

heise+ | Kurz erklärt: Wie N-Gramme funktionieren

Die Zahl der Parameter von Open-Weight-Modellen wächst und wächst: Hatte das überzeugende DeepSeek-V4-Flash noch 284 Milliarden Parameter, verfügt der Nachfolger DeepSeek-V4.1-Flash bereits über 748 Milliarden Parameter. Dabei nutzen die Entwickler mit N-Grammen eine zusätzliche Art von Parametern, sodass der Größenzuwachs nicht automatisch heißt, dass sich die Open-Weight-LLMs schlechter lokal betreiben lassen.